Xã Cao Sơn nằm ở phía đông của huyện Mường Khương, cách trung tâm huyện lỵ 24 km, có vị trí địa lý:

• Phía đông giáp huyện Si Ma Cai
• Phía nam giáp huyện Si Ma Cai và các xã Tả Thàng, La Pan Tẩn
• Phía tây giáp xã Lùng Vai
• Phía bắc giáp xã Lùng Khấu Nhin và huyện Si Ma Cai.

Sông Chảy là ranh giới tự nhiên của xã Cao Sơn với các xã thuộc huyện Si Ma Cai. Xã có các dân tộc: H'Mông chiếm 98% và Nùng.[1]